高效调度!曙光打造网约车深度学习平台

您所在的位置:网站首页 eta 算法 高效调度!曙光打造网约车深度学习平台

高效调度!曙光打造网约车深度学习平台

2023-03-12 17:18| 来源: 网络整理| 查看: 265

伴随天气回暖,春游出行增加,网约车订单规模进一步扩大。但语音识别、目标检测、自然语言处理(NLP)、到达时间预估(ETA)等应用场景众多且复杂,如何实现高速响应,建立统一的深度学习开发平台成为网约车平台的核心需求。

然而在开发网约车算力平台时,常常面临各类挑战,比如:

1、资源使用效率:深度学习算法大都属计算密集型应用,其背后的AI服务器单价昂贵,若资源缺乏统筹调度,无法形成规模化效应,使用效率大打折扣。

2、开发效率:算法开发最核心的工作是算法的开发和调试,但是算法开发工程师把大量的时间花在了环境的部署、配置与维护(通常构建一套完整的环境是以天为单位),开发效率待提升。

3、在线运算:企业要部署模型服务,就需要解决服务的HA、负载均衡等生产服务问题。为了满足服务的延迟、资源的约束,模型服务上线,需要做从服务、到深度学习框架、到计算库的全栈优化。

曙光通过容器化学习平台,实现1次构建、重复使用的效果,即将算法环境封装成Docker镜像的方式实现快速环境部署及作业指派。通过优化集群资源利用,更加细粒度的资源控制,使资源用即申请,完即释放,解决了资源统一管理和调度的问题。

在网约车行业日渐走向有序发展的背景下,通过智能化平台和技术创新赋能平台运营,确保安全、效率和质量,已经成为平台发展的重点。曙光帮助企业打造高效、可靠、智能的基础设施平台,并多项赋能,实现AI计算力端到端的最佳实践。



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3